Prompt Engineering Limitations: Preliminary Evaluation of Large Language Models for Psychotherapy Safety
Questo studio dimostra che il solo prompt engineering è insufficiente a garantire la sicurezza dei modelli linguistici di grandi dimensioni nella psicoterapia, poiché essi falliscono frequentemente nel gestire scenari clinici ad alto rischio o sfumati a causa di limitazioni strutturali, rendendo necessari il fine-tuning guidato dai clinici e meccanismi di sicurezza integrati.